[過去ログ] スレ立てるまでもない質問はここで 163匹目 (1002レス)
1-

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
826
(1): (ワッチョイ e910-8P30) 2023/03/09(木)20:32 ID:N1tjswZx0(1) AAS
開発言語はpythonでもJavaでもC#でもRubyでも良いのですが、
Webサイトの更新を検知するプログラムを作りたいと考えています。

ETagは設置していないサイトが多いので汎用的では無いと見受けられるのですが、
他に何か良い手立ては無いでしょうか?

1日1回スクレイピングして〜と思っていたのですが、
bodyタグの中身すら広告やら何やらで毎回内容が変わるサイトが多く、
どうすれば実現できるのか皆様のご意見を伺いたいです。
827
(1): (ブーイモ MMeb-YseW) 2023/03/09(木)23:38 ID:7W4kVpw4M(1) AAS
>>826
特定の決まったサイトなら必要なところだけ取り出して比べたら?

対象サイトが多すぎて(アフィ?)一個一個書いてられないなら汎用的な記事抽出系のライブラリを使うといい
FirefoxやSafariで使われてるReadabilityが有名
828: 826 (ワッチョイ e910-8P30) 2023/03/10(金)14:28 ID:jNHvrmWC0(1/2) AAS
>>827
ありがとうございます。
やはりhtmlをパースするしかないのですね。
不特定多数のサイトの更新を確認したかったのですが、なかなか実現は難しそうですね。
829: (スップ Sd73-20ys) 2023/03/10(金)16:18 ID:vz26ACYYd(1) AAS
言語何でもいい言うたのにな
HTMLごときで音を上げて☘☘
830: (ワッチョイ 117c-AVBr) 2023/03/10(金)17:31 ID:45LOPYa70(1) AAS
更新有りと無いケースのHTMLをいくつか渡したら
適当なDOMのパスの候補を返すツールならすぐ作れそう
831: (ワッチョイ e910-8P30) 2023/03/10(金)21:14 ID:jNHvrmWC0(2/2) AAS
広告による更新なのか、本文の更新なのかを不特定多数のサイトを対象に全自動で検知したいのですよ。
SequenceMatcherで類似度測ってみたり、教えて頂いたReadabilityを組み合わせてみたりしたのですが、汎用性のあるPGが出来なくて。
832: (ワッチョイ 0901-90lX) 2023/03/10(金)22:46 ID:qpUtn1cA0(1) AAS
広告が邪魔ならAdblock食わせたselenium経由でパースしたら少しはマシになるかな?
833: (スップ Sd33-XMSP) 2023/03/10(金)23:01 ID:/wd+P0wld(1) AAS
広告ってブラウザサイドのスクリプトでロードするからサーバサイドから渡されるHTMLソースそのものはほとんど変化無いかと思ってたが
834: (ワッチョイ 1379-rvSK) 2023/03/10(金)23:02 ID:hNo+M64i0(1) AAS
普通に迷惑行為だしこんなとこでやり方教えるわけにはいかない
835: (ワッチョイ 4110-6803) 2023/03/10(金)23:12 ID:3ErDNgC30(1) AAS
ここで言うのもなんだがただの更新検知だけならfeedlyとかのサービスとかで十分だし敵わんやろ
836
(1): (ワッチョイ 715f-oxQa) 2023/03/12(日)15:24 ID:QBltjIgI0(1) AAS
一般論として、動的型付け言語で書いたプログラムはメモリ上に変数の型の情報を持っているが、静的型付け言語では持っておらず、プログラム実行時は型の情報を参照していない(数値も文字も区別していない)という理解は合っていますか?
837: (アウアウエー Sa22-MAiJ) 2023/03/12(日)15:52 ID:8DcR0+gea(1) AAS
No
838: (ブーイモ MMbe-Q6zA) 2023/03/12(日)18:29 ID:EagIiKPaM(1) AAS
>>836
動的型付け言語は変数ではなく値に型が紐付いている
静的型付け言語は変数の型を実行時に持つ必要は基本的にないがC++, Java, C#など多くの言語はダウンキャストやリフレクションなどの機能のために実行時にも型情報を持ってる
839
(1): (ワッチョイ 1154-l9yI) 2023/03/14(火)04:48 ID:/sV5CX6Q0(1) AAS
ER図を作るのに、A5M2使ってるんですが、今テーブル数が261個あって、かなり見づらいです。
一応複数のページに分けて管理してるんですが、別ページだとリレーションの線を引けないので、これはこれで見づらいです。
大量のテーブルを1ページで表示出来るER図作成アプリを教えてください。
840: (オッペケ Sr85-Wiee) 2023/03/14(火)09:09 ID:c5wDCPPdr(1) AAS
だれがみんねんそんなん
841: (スッップ Sd9a-tQAe) 2023/03/14(火)09:36 ID:VrJeJBJfd(1) AAS
天球儀のような形に出来れば
ちょっと欲しいかも
842
(2): (オイコラミネオ MMed-S+nL) 2023/03/14(火)17:08 ID:qcGIlcvZM(1) AAS
初心者向けレクチャーサイトを見ながらDocker for WindowsをインストールしてDockerHubからPythonをインストールしました
Pythonのバージョン確認とOSのバージョン確認をしたらDebianが入っていたのですが、どのタイミングでDebianが入ったのでしょうか
Ubuntuを入れたかったのですがOS選択項目は出てこなかったと思います
843: (ブーイモ MMee-Q6zA) 2023/03/14(火)17:16 ID:nKBGdJ1xM(1) AAS
カラム名まで表示するような比較的詳細なER図なら各業務単位のテーブル群ごとにER図を分ける
その時に1つのテーブルが複数のER図に現れても気にしない
特定の業務/サブシステム/アプリで触るテーブル群の関係が1枚で分かることが重要

逆にシステム全体の主要テーブルの関係を俯瞰するためのER図ならカラムの大半を省略したり小さなマスタ類はテーブルごと省略して俯瞰できる内容に収める
それでも30テーブルを超えるようならもう一段上にサブシステム関係図を作ってER図は分割する

でそれぞれHTML出力してリンクを貼っておく
844: (ブーイモ MMee-Q6zA) 2023/03/14(火)17:18 ID:n9Omu9zpM(1) AAS
>>842
どっかーのタイミング
845
(1): (ワッチョイ 1a10-2iqW) 2023/03/14(火)18:05 ID:RMW5dHae0(1) AAS
>>842
DockerのイメージはOS込みなので
そのPython公式?のイメージがdebianベースで作られているだけ
非公式のUbuntuベースのイメージ探すくらいなら
Ubuntuの公式イメージをつかってそこへpython導入する方が安全
使ってくうちに導入後のイメージもすぐ作れるようになる
846: (ブーイモ MMe9-Q6zA) 2023/03/14(火)18:52 ID:HZfgsPhQM(1) AAS
>>839
SchemaSpyを試してみるといいと思う
847
(1): (アウアウウー Sa89-lsaJ) 2023/03/14(火)19:03 ID:bSBFit5ma(1) AAS
Docker for Windows なんて、そんなもの存在する?
Docker Desktop でしょ

Ruby on Rails では、WSL2, Linux, Docker Desktop, Windows Terminal

VSCodeの拡張機能・Remote Development には、
3つの拡張機能・Remote Container/WSL/SSH が含まれている
848
(2): (オッペケ Sr85-JpKq) 2023/03/15(水)00:02 ID:YRex8YPfr(1) AAS
Docker Desktopは有料化されたけど今はみんな何使ってるの?
いまDocker使わない開発してるからわからん
849: (ワッチョイ 6d5f-2l48) 2023/03/15(水)07:18 ID:mK3nAKlV0(1) AAS
有料であれ使うけど
850: (ワッチョイ 4dec-JIpj) 2023/03/15(水)10:55 ID:ClK12XWK0(1) AAS
日本には秀丸は4000円という文化がある
851: (ワッチョイ 3d10-2iqW) 2023/03/15(水)14:55 ID:jboKEl7y0(1) AAS
有料なのはある程度以上の企業のみだけど勘違いしてない?
必要かはプロジェクトでまちまちだけど管理が煩雑になるから
ウチは関わりそうなエンジニア全員登録してる
852
(1): (ワッチョイ ba4b-Jlog) 2023/03/15(水)19:35 ID:eS/lJ3n/0(1) AAS
秀丸の完全クローンを作って配布したら違法ですか?
853: (ワッチョイ fa02-mIEw) 2023/03/15(水)21:02 ID:g/fwP5jT0(1) AAS
アイデアには権利はないけど
見た目と操作には権利があるからなあ
854: (ワッチョイ d68f-MYI5) 2023/03/15(水)22:29 ID:eoB9Ihb90(1) AAS
あんな使いにくいのクローンしてどうする
855: (ワッチョイ 56bb-Mu7q) 2023/03/15(水)22:55 ID:Eybbq5BF0(1) AAS
アルゴリズムならアイデアだから著作権はないけど、ソフトウェアには普通に著作権が認められてる
完全クローンならwarez配布で逮捕される
仮にソースもリソースも一切コピーしてない手書きの模倣だとしたら法廷で争うことになるんじゃね
1-
あと 147 レスあります
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ

ぬこの手 ぬこTOP 0.015s